벨의 부등식

1935년, 앨버트 아인슈타인, 보리스 포돌스키, 네이선 로젠이 공동으로 발표한 논문은 양자 역학의 완전성을 의심하며 유명한 EPR 역설을 제기했다. 이 논문은 "물리적 실재의 양자 역학적 기술은 완전할 수 있는가?"라는 질문을 던졌다[4].

그들은 논리적 귀류법을 사용했다. 먼저, 완전한 이론의 조건으로 '물리적 실재의 요소'가 존재한다면, 그것에 대한 확실한 예측을 할 수 있어야 한다고 정의했다. 그리고 두 개의 입자가 얽힘 상태에 있다고 가정했다. 이 경우 한 입자의 상태를 측정하면, 멀리 떨어진 다른 입자의 상태를 즉시 확정할 수 있다. 공간적으로 분리된 두 사건 사이에 초광속적 영향이 없다는 국소성 원리를 가정하면, 두 번째 입자의 물리량은 측정 이전부터 존재하는 '사실'이어야 한다. 그러나 양자 역학은 측정 전에는 확정된 값을 가지지 않는 확률 진폭으로 기술한다. 따라서 아인슈타인 일행은 양자 역학이 '사실'을 기술하지 못하므로 불완전한 이론이며, 표면 아래에 숨은 변수가 존재할 것이라고 주장했다.

이 역설은 양자 역학의 핵심인 불확정성 원리와 비국소성에 대한 근본적인 논쟁을 촉발시켰다. 닐스 보어는 이에 대해 빠르게 반박했는데, 그의 요지는 측정 가능한 물리량이 측정 상황과 분리된 독립적 실재성을 가진다는 EPR의 전제 자체가 양자 현상에서는 성립하지 않는다는 것이었다. 이 논쟁은 수십 년 동안 철학적 수준에 머물렀으나, 존 스튜어트 벨이 이를 실험적으로 검증 가능한 형태로 전환하는 계기를 마련했다.

존 스튜어트 벨은 1964년에 발표한 논문 "On the Einstein Podolsky Rosen Paradox"에서 EPR 역설에 대한 새로운 접근법을 제시했다. 그의 핵심 목표는 양자 역학의 예측과 국소적 숨은 변수 이론의 예측을 실험적으로 구분할 수 있는 정량적 기준을 마련하는 것이었다.

벨은 아인슈타인, 포돌스키, 로젠이 제기한 사고 실험을 기반으로, 두 개의 얽힘 상태에 있는 입자 쌍에 대해 수행할 수 있는 측정을 고려했다. 그는 만약 국소적 숨은 변수 이론이 맞다면, 두 측정 장치의 설정 각도에 따른 상관관계 값은 반드시 특정한 수학적 한계를 넘지 않아야 한다는 것을 증명했다. 이 한계가 바로 벨의 부등식이다.

반면, 양자 역학은 특정한 측정 각도 조합에서 이 부등식을 명백히 위반하는 값을 예측했다. 따라서 벨의 접근은 철학적 논쟁을 넘어, 실험으로 검증 가능한 명확한 물리적 명제를 제공했다. 그의 작업은 국소적 숨은 변수 이론과 양자 역학이 단순히 동등한 대안이 아니라, 서로 다른 실험 결과를 예측하는 별개의 이론임을 보여주었다.

벨 부등식의 기본 형태는 존 스튜어트 벨이 1964년 논문에서 제시한 원래의 부등식을 가리킨다. 이 부등식은 국소적 숨은 변수 이론이 만족해야 하는 통계적 제약 조건을 수학적으로 명시한다. 벨은 한 쌍의 얽힘 상태에 있는 입자(예: 스핀 1/2 입자)에 대해, 서로 다른 방향으로 측정한 스핀 성분들의 상관관계가 특정 범위를 벗어날 수 없음을 보였다.

구체적인 설정은 다음과 같다. 한 지점에서 생성된 스핀 0의 단일항 상태(singlet state)에 있는 두 입자 A와 B가 반대 방향으로 멀어져 간다. 관찰자 앨리스는 입자 A의 스핀을 방향 a 또는 a' 로 측정하고, 밥은 입자 B의 스핀을 방향 b 또는 b' 로 측정한다. 각 측정의 결과는 +1(예: 스핀 업) 또는 -1(스핀 다운)이다. 국소적 숨은 변수 이론 하에서, 이 네 가지 측정 조합(a와 b, a와 b', a'와 b, a'와 b')에 대한 기대값 E는 다음 부등식을 만족해야 한다.

|E(a, b) - E(a, b')| + |E(a', b) + E(a', b')| ≤ 2

이 식이 바로 벨 부등식의 기본 형태이다. 좌변은 상관관계 측정값들의 선형 조합의 절댓값 합을 나타내며, 국소적 숨은 변수 이론은 이 값이 2를 넘지 않는다고 예측한다.

그러나 양자 역학은 특정 측정 각도 조합에 대해 이 부등식을 위반하는 값을 예측한다. 예를 들어, 모든 측정 방향이 동일 평면에 있고, 각도 차이가 특정 값일 때, 양자 역학적 예측은 좌변의 값이 2√2(약 2.828)에 달한다. 이는 명백히 부등식 2 ≤ 2를 위반하며, 따라서 국소적 숨은 변수 이론과 양자 역학은 실험적으로 구별 가능한 서로 다른 예측을 제공한다는 점을 보여준다.

존 스튜어트 벨이 1964년에 제시한 원래의 벨의 부등식은 실험적으로 검증하기에 다소 이상적인 조건을 가정했다. 이를 더욱 일반화하고 실험에 적합한 형태로 만든 것이 존 클라우저, 마이클 호른, 아브너 시모니, 리처드 홀트가 1969년에 도출한 CHSH 부등식이다. 이 부등식은 네 명의 이름 앞글자를 따서 명명되었다.

CHSH 부등식은 두 개의 먼 거리에 있는 입자(광자나 전자 등)에 대해, 각 측정 장치에서 서로 다른 두 가지 측정 설정(예: 다른 각도의 편광자)을 선택할 수 있는 상황을 고려한다. 측정 결과는 일반적으로 +1 또는 -1의 값을 가진다고 가정한다. 두 측정자 앨리스와 밥이 각각 설정 *a* 또는 *a'*, *b* 또는 *b'* 중 하나를 무작위로 선택하여 측정을 수행할 때, 네 가지 상관관계의 합에 대한 절댓값은 고전적인 국소적 숨은 변수 이론 하에서 2를 넘지 않아야 한다. 수학적으로는 다음과 같이 표현된다.

|S| = |E(a, b) - E(a, b') + E(a', b) + E(a', b')| ≤ 2

여기서 E(a, b)는 설정 *a*와 *b*에서 측정된 결과값들의 상관관계 기댓값을 의미한다.

반면, 양자 역학은 특정한 얽힘 상태와 측정 각도 선택에 대해 이 상관관계 합 S의 절댓값이 2√2(약 2.828)까지 도달할 수 있음을 예측한다. 이 값은 고전적 상한인 2를 명확히 위반한다. 따라서 CHSH 부등식은 국소성과 사실성을 동시에 만족하는 모든 이론이 지켜야 할 제약을 제공하며, 이를 위반하는 실험 결과는 그러한 이론들이 자연을 기술할 수 없음을 보여준다. CHSH 부등식은 실험 설계가 비교적 용이하여 벨의 부등식 검증 실험의 표준적인 틀을 제공했다.

벨의 부등식은 국소성과 사실성이라는 두 가지 근본적인 가정을 동시에 검증하는 수학적 기준을 제공한다. 이 두 개념은 고전 물리학의 세계관을 이루는 핵심 기둥이었다.

국소성은 어떤 물리적 영향이 빛보다 빠르게 전파될 수 없다는 원리이다. 즉, 공간적으로 떨어진 두 사건이 서로에게 영향을 미치려면 그 사이에 어떤 신호가 전달되어야 하며, 그 신호의 속도는 빛의 속도를 초과할 수 없다. 사실성은 관측되기 전에도 물리적 관측량이 명확하게 정의된 값을 가지고 있다는 가정이다. 예를 들어, 측정하기 전에도 입자의 스핀 방향은 이미 결정되어 있다는 것이다. 벨의 부등식은 이러한 국소적 사실성을 모두 만족하는 모든 숨은 변수 이론이 준수해야 할 제약 조건이다.

그러나 양자 역학은 얽힘 상태에 있는 두 입자에 대해 벨의 부등식을 위반하는 예측을 한다. 이는 국소성과 사실성 중 적어도 하나가 자연계에서는 성립하지 않음을 의미한다. 실험 결과는 양자 역학의 예측과 일치하여 부등식 위반을 확인했으므로, 국소적 사실성이라는 고전적 직관이 양자 세계에서는 무너져야 함을 보여주었다. 이는 물리적 현실의 본성에 대한 우리의 이해를 근본적으로 바꾸었다.

양자 역학은 앙상블에 대한 기대값을 사용하여 상관관계를 계산한다. 두 입자가 얽힘 상태에 있을 때, 서로 다른 방향으로 스핀을 측정하는 경우의 기대값은 코사인 법칙에 따라 달라진다. 예를 들어, EPR 역설에서 사용된 스핀 1/2 입자 쌍의 단일항 상태에서는, 측정 방향 a와 b 사이의 각도를 θ라 할 때, 상관관계의 기대값 E(a, b)는 -cos(θ)로 주어진다[6].

이 양자 역학적 예측을 벨 부등식의 가장 간단한 형태인 CHSH 부등식에 대입해 보면, 부등식이 위반됨을 확인할 수 있다. CHSH 부등식은 네 가지 측정 설정 조합에 대한 상관관계의 선형 결합 S의 절댓값이 고전적 이론에서는 2를 넘지 않아야 한다고 주장한다. 그러나 특정한 측정 각도(예: 0°, 45°, 90°, 135°)를 선택하면 양자 역학은 S = 2√2 ≈ 2.828이라는 값을 예측한다. 이 값은 고전적 상한인 2를 명확히 초과한다.

*표: CHSH 매개변수 S = E(a,b) - E(a,b') + E(a',b) + E(a',b')를 계산하기 위한 예시 값. S = |-0.7071 - 0.7071 -0.7071 -0.7071| = 2√2.*

이러한 예측은 국소적 숨은 변수 이론이 지닌 국소성과 사실성의 제약 아래에서는 도달할 수 없는 수치이다. 따라서 벨 부등식의 위반 가능성은 양자 역학이 국소적 사실론과 양립할 수 없음을 시사하는 결정적인 수학적 증거를 제공한다. 이후 진행된 수많은 실험들은 대체로 이 양자 역학적 예측을 지지하는 결과를 보여주었다.

초기 실험은 주로 광자 쌍을 이용하여 수행되었다. 1972년, 존 프랜시스 클라우저와 스튜어트 프리드먼은 칼슘 원자를 이용해 생성된 얽힘 상태의 광자 쌍으로 최초의 실험적 검증을 시도했다. 그들의 결과는 양자 역학의 예측을 지지하는 방향으로 벨의 부등식 위반을 보여주었으나, 실험 장치의 효율성 한계로 인해 '결함'이 존재했다[8].

이후 1980년대 초, 알랭 아스페가 이끄는 연구팀은 더욱 정교한 실험을 설계했다. 그들은 빠르게 변화하는 분석기를 사용하여 측정 방향 선택과 광자 검출 사이에 인과적 영향이 미칠 시간을 차단했다. 1982년 발표된 아스페의 실험 결과는 벨의 부등식을 명확히 위반했으며, 국소적 숨은 변수 이론과 양자 역학 사이의 판결을 내리는 데 중요한 이정표가 되었다.

그러나 이러한 초기 실험들도 완전히 '결함 없는' 조건을 충족하지는 못했다. 주요 결함은 다음과 같이 요약할 수 있다.

이러한 한계들로 인해, 초기 실험 결과는 벨의 부등식 위반을 강력히 시사했지만, 국소적 숨은 변수 이론을 완전히 배제하는 결정적 증거로 받아들여지기에는 아직 논란의 여지가 남아 있었다.

2015년에 수행된 일련의 실험은 벨의 부등식 위반을 확증하면서도 기존 실험의 주요 결함으로 지적되던 '국소성 루프홀'과 '검출 효율 루프홀'을 동시에 막는 데 성공했다. 이 실험들은 알랭 아스페의 초기 실험 이후 수십 년간 남아 있던 논쟁을 사실상 종식시켰다.

네덜란드 델프트 공과대학교의 연구팀은 1.3km 떨어진 두 개의 다이아몬드 결정 내에 있는 질소-공석 결함을 양자 얽힘 상태로 만들었다[9]. 이 두 '트랩'은 서로 다른 건물에 위치했으며, 얽힘 상태 생성과 측정 사이의 정보 교환 가능성을 완전히 배제하기 위해 측정 설정은 광섬유를 통해 전송된 광자의 무작위 생성기에 의해 결정되었다. 이 실험은 '국소성 루프홀'을 확실히 차단했다.

동시에, 다른 연구팀들은 '검출 효율 루프홀'을 해결하는 데 집중했다. 빈 대학교와 미국 NIST의 실험에서는 초전도 회로나 이온 트랩과 같은 시스템을 사용하여 거의 100%에 가까운 검출 효율을 달성했다. 이는 이전의 광자 기반 실험에서 많은 광자를 잃어버려 발생할 수 있었던 표본 추출 편향 문제를 제거했다. 주요 실험 결과는 다음 표와 같다.

이러한 '결함 없는 실험'들은 양자 역학이 국소적 숨은 변수 이론과는 양립할 수 없음을 강력하게 지지한다. 실험 결과는 CHSH 부등식의 고전적 상한인 2를 명확히 넘어섰다. 이는 자연계가 국소성과 사실성을 동시에 만족시키지 않는다는 것을 의미하며, 양자 얽힘 현상이 우리 세계의 근본적인 속성임을 보여준다.

벨의 부등식에 대한 실험적 위반은 국소적 숨은 변수 이론이 자연을 기술하는 올바른 틀이 될 수 없음을 강력하게 시사한다. 벨의 부등식은 국소성과 사실성이라는 두 가지 합리적인 가정을 모두 만족하는 숨은 변수 이론이 반드시 준수해야 하는 통계적 제약 조건이다. 그러나 앨런 애스펙트 등의 실험은 양자 얽힘 상태에 있는 입자쌍을 측정했을 때, 양자 역학이 예측하는 상관관계가 벨의 부등식을 명백히 위반함을 보여주었다[10].

이 결과는 국소성과 사실성을 동시에 가정하는 모든 이론이 실험 결과를 설명할 수 없음을 의미한다. 따라서 실험과 일치하는 이론을 구성하려면, 최소한 이 두 원리 중 하나를 포기해야 한다. 국소성을 포기한다는 것은 양자 비국소성을 인정하는 것으로, 공간적으로 떨어진 두 시스템 사이에 즉각적인 영향이 전파될 수 있음을 시사한다. 반면, 사실성을 포기한다는 것은 측정 이전에 관측량이 확정된 값을 가지지 않는다는, 즉 측정 행위 자체가 물리적 현실을 구성한다는 해석을 수반한다.

결국, 벨 부등식 실험의 결과는 아인슈타인이 옹호했던 국소적 사실적 세계관이 양자 세계의 현상을 포착하지 못함을 보여주는 결정적 증거로 받아들여진다. 이는 단순히 특정 숨은 변수 모델의 배제를 넘어, 우리의 직관에 기반한 고전적 국소 사실성 자체가 근본적으로 수정되어야 함을 시사하는 물리학의 중요한 전환점이 되었다.

다중 세계 해석은 벨의 부등식 실험 결과를 설명하는 주요 대안 중 하나이다. 이 해석은 국소적 숨은 변수 이론이 배제된 후에도 양자 역학의 예측과 실험 결과를 조화시키기 위해 제안되었다. 다중 세계 해석은 측정 과정에서 관찰자의 인식이 분기(branch)된다는 아이디어에 기반을 두며, 이를 통해 중첩 상태의 붕괴를 피한다.

다중 세계 해석에 따르면, EPR 역설이나 벨 실험에서 나타나는 양자 얽힘 상태는 서로 다른 세계로의 분기를 초래한다. 예를 들어, 두 개의 얽힌 입자를 측정할 때, 각각의 가능한 측정 결과는 별도의 평행 세계에서 실현된다. 따라서 한 세계의 관찰자는 특정한 상관관계를 관측하지만, 다른 모든 가능한 결과도 동시에 다른 세계들에서 발생한다. 이 관점에서는 비국소성이나 초광속 영향이 필요하지 않으며, 모든 과정은 국소성을 유지하는 양자 역학의 방정식에 따라 결정론적으로 진행된다.

다중 세계 해석 외에도 벨의 부등식 위반을 설명하는 다른 대안적 관점들이 존재한다. 예를 들어, 양자 베이즈주의(Quantum Bayesianism, QBism)는 양자 상태가 객관적 실재가 아니라 관찰자의 개인적 믿음을 나타낸다고 본다. 따라서 측정 결과는 사전에 결정되어 있지 않으며, 벨의 부등식 위반은 서로 다른 관찰자 간의 정보 조정 문제로 해석될 수 있다. 또 다른 접근법인 거래 해석(Transactional Interpretation)은 미래에서 과거로 향하는 파동을 도입하여 비국소적 상관관계를 설명하려 시도한다.

이러한 대안적 해석들은 표준 코펜하겐 해석이 제시하는 '측정 문제'를 우회하거나 재해석하려는 공통된 목표를 가진다. 그러나 다중 세계 해석을 포함한 대부분의 대안은 실험적으로 구별할 수 없는 예측을 제공하거나, 추가적인 형이상학적 구조를 요구한다는 비판을 받는다. 벨의 부등식 실험 결과는 국소적 숨은 변수 이론을 강력하게 배제했지만, 양자 현상에 대한 최종적인 철학적 해석에 대해서는 여전히 논쟁이 지속되고 있다.

벨의 부등식에 대한 실험적 위반은 단순히 기초 물리학의 한 정리를 검증하는 것을 넘어, 양자 정보 과학이라는 새로운 학문 분야의 실용적 기반을 마련하는 계기가 되었다. 이 분야는 양자 중첩과 양자 얽힘과 같은 양자 역학의 고유한 현상을 정보 처리의 자원으로 활용하는 방법을 연구한다. 벨 부등식의 위반은 국소적 숨은 변수 이론이 자연을 기술할 수 없음을 보여주었고, 이는 양자 얽힘 상태가 단순한 이론적 개념이 아닌 실재하는 물리적 자원임을 확증했다. 따라서 양자 정보 과학의 많은 프로토콜은 얽힘 상태의 존재와 그 비국소적 상관관계를 전제로 설계된다.

양자 정보 과학의 핵심 응용 분야 중 하나는 양자 암호 통신, 특히 양자 키 분배(QKD)이다. QKD는 두 당사자(앨리스와 밥)가 양자 채널(예: 광자)과 공개적인 고전 채널을 이용해 절대적으로 안전한 암호 키를 공유할 수 있게 해준다. 그 안전성의 근간은 양역학의 측정에 관한 원리, 즉 누군가가 양자 상태를 도청하려고 시도하면 필연적으로 그 상태를 교란시켜 발각될 수밖에 없다는 사실에 있다. 벨 부등식 검증 실험에서 발전한 정밀한 얽힘 광자 생성 및 측정 기술은 실제 QKD 시스템 구현의 핵심 구성 요소로 직접 활용된다.

또 다른 중요한 분야는 양자 컴퓨팅이다. 벨 부등식과 깊이 연관된 양자 얽힘은 양자 컴퓨터가 고전 컴퓨터를 능가할 수 있는 잠재력, 즉 양자 우위의 원동력 중 하나로 여겨진다. 얽힘 상태를 이용하면 정보를 병렬적으로 처리하는 새로운 방식이 가능해져, 특정 문제(예: 쇼어 알고리즘에 의한 소인수분해, 그로버 알고리즘에 의한 데이터베이스 검색)에서 지수적 또는 다항식적 속도 향상을 이끌어낼 수 있다. 벨 부등식 실험은 다수의 양자 비트(큐비트) 간에 얽힘을 생성하고 유지하는 기술의 초석을 제공했다.

이러한 발전을 통해, 벨의 부등식은 순수한 기초 물리학의 논쟁에서 출발하여 양자 암호, 양자 컴퓨터, 양자 네트워크를 포함한 실용적 기술 혁신의 길을 여는 중요한 이정표가 되었다.

벨의 부등식 실험은 국소적 숨은 변수 이론을 배제함으로써 양자 역학의 비국소적 특성, 즉 양자 얽힘 현상을 확증했다. 이 근본적인 발견은 단순한 이론적 검증을 넘어, 양자 암호 통신이라는 실용적인 기술의 기반을 제공했다. 양자 암호 통신의 핵심 프로토콜인 BB84 프로토콜은 빛의 양자 상태를 이용해 암호키를 분배하며, 도청 시 필연적으로 발생하는 양자 상태의 교란을 통해 도청 자체를 탐지할 수 있다[12].

이 기술의 보안성은 고전적인 계산 복잡도에 의존하는 기존 암호체계와 근본적으로 다르다. 벨의 부등식 검증을 통해 입증된 양자 얽힘의 특성은 더욱 강력한 양자 키 분배 프로토콜의 개발로 이어졌다. 예를 들어, E91 프로토콜은 얽힌 광자 쌍을 이용하며, 통신 당사자가 벨의 부등식을 검사함으로써 채널의 안전성을 직접 확인할 수 있다. 이는 중간자 공격을 포함한 모든 수동적 도청을 원리적으로 불가능하게 만든다.

현재 양자 암호 통신은 장거리 광섬유 네트워크와 위성 링크를 통해 실용화 단계에 들어섰다. 이 기술은 향후 양자 컴퓨터에 의해 쉽게 해독될 수 있는 고전 공개키 암호체계에 대한 대비책으로 주목받고 있다. 벨의 부등식은 이러한 기술 발전의 이론적 토대를 마련한, 순수 물리학에서 응용 과학으로의 연결 고리를 보여주는 대표적인 사례이다.